Security Lab

Prompt Injection

Уязвимость типа Prompt Injection заключается в манипуляции входными данными так, чтобы заставить систему (например, ИИ-модель или чат-бота) выполнить нежелательные или вредоносные действия. Злоумышленник вводит специальные команды или текст, который интерпретируется системой как инструкция, а не как обычный ввод пользователя. Это может привести к утечке конфиденциальной информации, выполнению несанкционированных операций или другим неблагоприятным последствиям.

Хакеры посадили ИИ за терминал. Минимум девять группировок уже используют его против российских организаций

Человек выбирает жертву, ИИ делает грязную работу.

Шутки кончились, пошли эксплойты: Владельцы веб-серверов учатся обманывать нейросети за секунду до парсинга

Служебные данные сайта оказались неожиданным каналом для манипуляций с нейросетями.

3 Хакеры прячут команды в документах для ИИ. Positive Technologies научила файрвол их распознавать

Positive Technologies добавила в PT AF защиту от атак на ИИ-агентов.

Prompt injection научилась размножаться через письма, файлы и комментарии к коду

OpenAI показала атаку, которая переносит собственную инструкцию дальше.

Grok сам себя взломал: шифр заставил ИИ слить чужую переписку

Скрытая команда заставила ИИ раскрыть данные из пользовательской переписки.

Текст из pull request стал командой. Почему ИИ-агенты ломают безопасность продакшена

20 августа специалисты Яндекса и Сбера разберут prompt injection, MCP и новые риски агентных систем.

10 из 11 популярных ИИ-агентов можно обмануть трюком из 90-х. Взлом не нужен — хватит записки в README

Взломщики добрались до святая святых — личных файлов разработчиков.

Борьба с ИИ вышла из-под контроля. Разработчик спрятал в коде бомбу для чужих проектов

Человек не заметит подвох, пока машина безвозвратно не удалит все файлы.

Азбука Морзе, Grok и $200 000: как один пост в X заставил ИИ-агента перевести токены

Grok понял шифровку, Bankrbot понял буквально, токены ушли.

Считаем до 50 и взламываем. Как Anthropic переоценила внимательность программистов

В коде ИИ-агента нашли нелепую ошибку, которая позволяет обходить правила безопасности.

Сессия ещё не началась. Именно эта фраза превращает ИИ-доктора в распространителя конспирологии

ИИ-сервис Doctronic оказался уязвим к простейшим манипуляциям через текстовые подсказки.

Написали на спине «Следуй за мной»? Поздравляем, вы только что угнали чужой дрон

Как работает визуальный prompt injection: машины подчиняются любому тексту, попадающему в объектив камеры.

Zero-click атака через Gmail и скрытый URL

Чем вежливее письмо хакера, тем охотнее ИИ-ассистент удаляет ваши файлы.

display: none против GPT-5. Ученые придумали, как использовать «совесть» нейросетей против них самих

Корейские ученые предложили невидимый HTML-блок для остановки вредоносных ИИ-агентов на веб-сайтах.

ИИ стал самостоятельным хакером. Теперь данные будет вымогать не школьник, а самообучающийся алгоритм

Генерация поддельных документов и персонализация угроз теперь полностью отданы на аутсорс алгоритмам.

«Нулевой клик» в ChatGPT. Ваши данные из диалога могут украсть, пока вы просто задаете вопрос

Хакеры могут «отравить» память ChatGPT и похищать данные между сессиями.

Нож в спину от Copilot: ваш ИИ-помощник по коду может оказаться самым опасным инструментом в арсенале хакера

Раскрыта новая схема атаки через ИИ-ассистентов.

Joke Screenmate в DNS: вредонос на сотне поддоменов — и ни один антивирус не заметил

TXT-записи доменов стали новым убежищем для вредоносного ПО.

Skynet вернулся — но на этот раз он не уничтожает ИИ, а превращает в союзника

Эпоха привычных нам угроз подходит к концу. Prompt injection — процветает.